Objectifs d'apprentissage
- Comparer les architectures : Faire la distinction entre les RNN, les LSTM et l'architecture Transformer.
- Mécanisme d'auto-attention : Expliquer l'article « Attention Is All You Need » et les mécanismes d'auto-attention.
- Encodeurs et décodeurs : Comprendre le rôle des Encodeurs et des Décodeurs dans des modèles comme BERT et GPT.